home *** CD-ROM | disk | FTP | other *** search
/ Amiga Tools 2 / Amiga Tools 2.iso / tex / macros / source / contrib / siam / lexample.tex / node6_mn.html < prev    next >
Text File  |  1995-03-09  |  12KB  |  230 lines

  1.  
  2. <H2><A ID="SECTION00021000000000000000">
  3. Numerical experiments</A>
  4. </H2> We conducted numerical experiments 
  5. in computing inexact Newton steps for discretizations of a  
  6. <#303#><EM>modified Bratu problem</EM><#303#>, given by  
  7. <BR>
  8. <DIV ALIGN="CENTER"><A ID="bratu"><tex2html_anchor_mark></A><tex2html_verbatim_mark>#math47#
  9. <TABLE CELLPADDING="0" ALIGN="CENTER" WIDTH="100%">
  10. <TR VALIGN="MIDDLE"><TD NOWRAP ALIGN="RIGHT"><tex2html_image_mark>#tex2html_wrap_indisplay1381#</TD>
  11. <TD WIDTH="10" ALIGN="CENTER" NOWRAP>=</TD>
  12. <TD ALIGN="LEFT" NOWRAP><I>f</I>;SPMnbsp;;SPMnbsp;;SPMnbsp;;SPMnbsp;<I>in</I> <I>D</I>,</TD>
  13. <TD WIDTH=10 ALIGN="RIGHT">
  14.  </TD></TR>
  15. <TR VALIGN="MIDDLE"><TD NOWRAP ALIGN="RIGHT"> </TD>
  16. <TD> </TD>
  17. <TD> </TD>
  18. <TD WIDTH=10 ALIGN="RIGHT">
  19. (9)</TD></TR>
  20. <TR VALIGN="MIDDLE"><TD NOWRAP ALIGN="RIGHT"><I>w</I></TD>
  21. <TD WIDTH="10" ALIGN="CENTER" NOWRAP>=</TD>
  22. <TD ALIGN="LEFT" NOWRAP>0;SPMnbsp;;SPMnbsp;;SPMnbsp;;SPMnbsp;<I>on</I> ∂<I>D</I>,</TD>
  23. <TD WIDTH=10 ALIGN="RIGHT">
  24.  </TD></TR>
  25. </TABLE></DIV>
  26. <BR CLEAR="ALL">
  27.  
  28. where <I>c</I> and <I>d</I> are constants. The actual Bratu problem has <I>d</I> = 0 and  
  29. <I>f</I>≡ 0. It provides a simplified model of nonlinear diffusion  
  30. phenomena, e.g., in combustion and semiconductors, and has been 
  31. considered by Glowinski, Keller, and Rheinhardt [#GloKR85#<tex2html_cite_mark>#1##<tex2html_cite_mark>#], 
  32. as well as by a number of other investigators; see [#GloKR85#<tex2html_cite_mark>#1##<tex2html_cite_mark>#] 
  33. and the references therein. See also problem 3 by Glowinski and  Keller  
  34. and problem 7 by Mittelmann in the collection of nonlinear model 
  35. problems assembled by Moré [#More#<tex2html_cite_mark>#1##<tex2html_cite_mark>#]. The modified problem  
  36. (<A HREF=<tex2html_cr_mark>#bratu#315><tex2html_cr_mark></A>) has been used as a test problem for inexact Newton 
  37. methods by Brown and Saad [#Brown-Saad1#<tex2html_cite_mark>#1##<tex2html_cite_mark>#].  
  38.  
  39. <P>
  40. In our experiments, we took <tex2html_verbatim_mark>#math48#<I>D</I> = [0, 1]×[0, 1], <I>f</I>≡ 0, 
  41. <I>c</I> = <I>d</I> = 10, and discretized (<A HREF=<tex2html_cr_mark>#bratu#317><tex2html_cr_mark></A>) using the usual second-order 
  42. centered differences over a <tex2html_verbatim_mark>#math49#100×100 mesh of equally 
  43. spaced points in <I>D</I>. In <#495#>GMRES<#495#>(<I>m</I>), we took <I>m</I> = 10 and used fast  
  44. Poisson right preconditioning as in the experiments in §2. The computing  
  45. environment was as described in §2. All computing was done  
  46. in double precision.  
  47.  
  48. <P>
  49.  
  50. <DIV class="CENTER"><A ID="diff"><tex2html_anchor_mark></A><A ID="469"><tex2html_anchor_mark></A>
  51. <TABLE>
  52. <CAPTION class="BOTTOM"><STRONG><#1398#>Figure<#1398#>:</STRONG>
  53. <#1399#><#320#> Log<#320#><SUB>10</SUB> of the residual norm versus the number of
  54. <#322#> GMRES(<I>m</I>)<#322#> iterations for the finite difference methods.<#1399#></CAPTION>
  55. <TR><TD><tex2html_image_mark>#figure318#</TD></TR>
  56. </TABLE>
  57. </DIV>
  58.   
  59.  
  60. <P>
  61. In the first set of experiments, we allowed each method to  
  62. run for 40 <#325#><#496#>GMRES(<I>m</I>)<#496#><#325#> iterations, starting with zero as the initial  
  63. approximate solution, after which the limit of residual norm  
  64. reduction had been reached. The results are shown in Fig.~<A HREF=<tex2html_cr_mark>#diff#326><tex2html_cr_mark></A>.  
  65. In Fig.~<A HREF=<tex2html_cr_mark>#diff#327><tex2html_cr_mark></A>, the top curve was produced by method FD1. 
  66. The second curve from the top is actually a superposition of  
  67. the curves produced by methods EHA2 and FD2; the two curves are 
  68. visually indistinguishable. Similarly, the third curve from  
  69. the top is a superposition of the curves produced by methods EHA4 
  70. and FD4, and the fourth curve from the top, which lies barely above  
  71. the bottom curve, is a superposition of the curves produced by  
  72. methods EHA6 and FD6. The bottom curve was produced by method A. 
  73.  
  74. <P>
  75. In the second set of experiments, our purpose was to assess the 
  76. relative amount of computational work required by the methods  
  77. which use higher-order differencing to reach comparable levels  
  78. of residual norm reduction. We compared pairs of methods EHA2  
  79. and FD2, EHA4 and FD4, and EHA6 and FD6 by observing in each of 
  80. 20 trials the number of <#328#><#497#>GMRES(<I>m</I>)<#497#><#328#> iterations, number of <I>F</I>-evaluations,  
  81. and run time required by each method to reduce the residual norm 
  82. by a factor of <tex2html_verbatim_mark>#math50#<I>ε</I>, where for each pair of methods <tex2html_verbatim_mark>#math51#<I>ε</I> was chosen  
  83. to be somewhat greater than the limiting ratio of final to  
  84. initial residual norms obtainable by the methods. In these trials,  
  85. the initial approximate solutions were obtained by generating random  
  86. components as in the similar experiments in §2. We note that for every  
  87. method, the numbers of <#329#><#500#>GMRES(<I>m</I>)<#500#><#329#> iterations and <I>F</I>-evaluations required  
  88. before termination did not vary at all over the 20 trials. The <#330#><#501#>GMRES(<I>m</I>)<#501#><#330#>
  89. iteration counts, numbers of <I>F</I>-evaluations, and means and standard  
  90. deviations of the run times are given in Table <A HREF=<tex2html_cr_mark>#diffstats#331><tex2html_cr_mark></A>. 
  91.  
  92. <P>
  93. <BR><P></P>
  94. <DIV class="CENTER">
  95.  
  96.  
  97. <P>
  98. <DIV class="CENTER">
  99. <#483#><FONT SIZE="-1"></FONT><A ID="470"><tex2html_anchor_mark></A>
  100. <TABLE CELLPADDING=3 BORDER="1">
  101. <CAPTION><STRONG>Table:</STRONG>
  102. Statistics over 20 trials of  GMRES(<I>m</I>) iteration numbers,  
  103. <I>F</I>-evaluations, and run times required to reduce the residual norm by  
  104. a factor of <tex2html_verbatim_mark>#math52#<I>ε</I>. For each method, the number of  GMRES(<I>m</I>) iterations  
  105. and <I>F</I>-evaluations was the same in every trial.</CAPTION>
  106. <TR><TD ALIGN="CENTER"><FONT SIZE="-1">  
  107. </FONT></TD>
  108. <TD ALIGN="CENTER"><FONT SIZE="-1"></FONT></TD>
  109. <TD ALIGN="CENTER"><FONT SIZE="-1"> Number of </FONT></TD>
  110. <TD ALIGN="CENTER"><FONT SIZE="-1"> Number of </FONT></TD>
  111. <TD ALIGN="CENTER"><FONT SIZE="-1"> Mean Run Time </FONT></TD>
  112. <TD ALIGN="CENTER"><FONT SIZE="-1"> Standard </FONT></TD>
  113. </TR>
  114. <TR><TD ALIGN="CENTER"><FONT SIZE="-1">  
  115. Method </FONT></TD>
  116. <TD ALIGN="CENTER"><FONT SIZE="-1"> <tex2html_verbatim_mark>#math54#<I>ε</I> </FONT></TD>
  117. <TD ALIGN="CENTER"><FONT SIZE="-1"> Iterations </FONT></TD>
  118. <TD ALIGN="CENTER"><FONT SIZE="-1"> <I>F</I>-Evaluations</FONT></TD>
  119. <TD ALIGN="CENTER"><FONT SIZE="-1"> (Seconds) </FONT></TD>
  120. <TD ALIGN="CENTER"><FONT SIZE="-1"> Deviation </FONT></TD>
  121. </TR>
  122. <TR><TD ALIGN="CENTER"><FONT SIZE="-1">   
  123. EHA2 </FONT></TD>
  124. <TD ALIGN="CENTER"><FONT SIZE="-1"> 10<SUP>-10</SUP> </FONT></TD>
  125. <TD ALIGN="CENTER"><FONT SIZE="-1"> 26 </FONT></TD>
  126. <TD ALIGN="CENTER"><FONT SIZE="-1">  
  127. 32 </FONT></TD>
  128. <TD ALIGN="CENTER"><FONT SIZE="-1"> 47.12 </FONT></TD>
  129. <TD ALIGN="CENTER"><FONT SIZE="-1"> .1048 </FONT></TD>
  130. </TR>
  131. <TR><TD ALIGN="CENTER"><FONT SIZE="-1">  
  132. FD2 </FONT></TD>
  133. <TD ALIGN="CENTER"><FONT SIZE="-1"> 10<SUP>-10</SUP> </FONT></TD>
  134. <TD ALIGN="CENTER"><FONT SIZE="-1"> 26 </FONT></TD>
  135. <TD ALIGN="CENTER"><FONT SIZE="-1"> 58 </FONT></TD>
  136. <TD ALIGN="CENTER"><FONT SIZE="-1"> 53.79 </FONT></TD>
  137. <TD ALIGN="CENTER"><FONT SIZE="-1"> .1829 </FONT></TD>
  138. </TR>
  139. <TR><TD ALIGN="CENTER"><FONT SIZE="-1">    
  140. EHA4 </FONT></TD>
  141. <TD ALIGN="CENTER"><FONT SIZE="-1"> 10<SUP>-12</SUP> </FONT></TD>
  142. <TD ALIGN="CENTER"><FONT SIZE="-1"> 30 </FONT></TD>
  143. <TD ALIGN="CENTER"><FONT SIZE="-1">  
  144. 42 </FONT></TD>
  145. <TD ALIGN="CENTER"><FONT SIZE="-1"> 56.76 </FONT></TD>
  146. <TD ALIGN="CENTER"><FONT SIZE="-1"> .1855 </FONT></TD>
  147. </TR>
  148. <TR><TD ALIGN="CENTER"><FONT SIZE="-1">   
  149. FD4 </FONT></TD>
  150. <TD ALIGN="CENTER"><FONT SIZE="-1"> 10<SUP>-12</SUP> </FONT></TD>
  151. <TD ALIGN="CENTER"><FONT SIZE="-1"> 30 </FONT></TD>
  152. <TD ALIGN="CENTER"><FONT SIZE="-1"> 132 </FONT></TD>
  153. <TD ALIGN="CENTER"><FONT SIZE="-1"> 81.35 </FONT></TD>
  154. <TD ALIGN="CENTER"><FONT SIZE="-1"> .3730 </FONT></TD>
  155. </TR>
  156. <TR><TD ALIGN="CENTER"><FONT SIZE="-1">    
  157. EHA6 </FONT></TD>
  158. <TD ALIGN="CENTER"><FONT SIZE="-1"> 10<SUP>-12</SUP> </FONT></TD>
  159. <TD ALIGN="CENTER"><FONT SIZE="-1"> 30 </FONT></TD>
  160. <TD ALIGN="CENTER"><FONT SIZE="-1">  
  161. 48 </FONT></TD>
  162. <TD ALIGN="CENTER"><FONT SIZE="-1"> 58.56 </FONT></TD>
  163. <TD ALIGN="CENTER"><FONT SIZE="-1"> .1952 </FONT></TD>
  164. </TR>
  165. <TR><TD ALIGN="CENTER"><FONT SIZE="-1">  
  166. FD6 </FONT></TD>
  167. <TD ALIGN="CENTER"><FONT SIZE="-1"> 10<SUP>-12</SUP> </FONT></TD>
  168. <TD ALIGN="CENTER"><FONT SIZE="-1"> 30 </FONT></TD>
  169. <TD ALIGN="CENTER"><FONT SIZE="-1"> 198 </FONT></TD>
  170. <TD ALIGN="CENTER"><FONT SIZE="-1"> 100.6 </FONT></TD>
  171. <TD ALIGN="CENTER"><FONT SIZE="-1"> .3278 </FONT></TD>
  172. </TR>
  173. </TABLE><FONT SIZE="-1"></FONT><#483#>
  174.  
  175. </DIV> 
  176. <A ID="diffstats"><tex2html_anchor_mark></A> 
  177.  
  178. </DIV><BR>  
  179.  
  180. <P>
  181. In our first set of experiments, we took <I>c</I> = <I>d</I> = 10 and used right 
  182. preconditioning with a fast Poisson solver from <#363#><#504#>FISHPACK<#504#><#363#>  
  183. [#Swarztrauber-Sweet#<tex2html_cite_mark>#1##<tex2html_cite_mark>#], which is very effective for these  
  184. fairly small values of <I>c</I> and <I>d</I>. We first started each method 
  185. with zero as the initial approximate solution and allowed it  
  186. to run for 40 <#365#><#505#>GMRES(<I>m</I>)<#505#><#365#> iterations, after which the limit of residual  
  187. norm reduction had been reached. Figure <A HREF=<tex2html_cr_mark>#pdep#366><tex2html_cr_mark></A> shows plots  
  188. of the logarithm of the Euclidean norm of the residual versus  
  189. the number of <#367#><#506#>GMRES(<I>m</I>)<#506#><#367#> iterations for the three methods. We note
  190. that in  Fig.~<A HREF=<tex2html_cr_mark>#pdep#368><tex2html_cr_mark></A> and in all other figures below, the plotted
  191. residual norms were not the values maintained by <#369#><#507#>GMRES(<I>m</I>)<#507#><#369#>, but rather
  192. were computed as accurately as possible ``from scratch.''  That is, 
  193. at each <#370#><#508#>GMRES(<I>m</I>)<#508#><#370#> iteration, the current approximate solution was 
  194. formed and its product with the coefficient matrix was subtracted 
  195. from the right-hand side, all in double precision.  
  196. It was important to compute the residual norms in this way because  
  197. the values maintained by <#371#><#509#>GMRES(<I>m</I>)<#509#><#371#> become increasingly untrustworthy  
  198. as the limits of residual norm reduction are neared; see [#Walker88#<tex2html_cite_mark>#1##<tex2html_cite_mark>#].  
  199. It is seen in Fig.~<A HREF=<tex2html_cr_mark>#pdep#373><tex2html_cr_mark></A> that Algorithm EHA achieved  
  200. the same ultimate level of residual norm reduction as the FDP  
  201. method and required only a few more <#374#><#510#>GMRES(<I>m</I>)<#510#><#374#> iterations to do
  202. so.  
  203.  
  204. <P>
  205.  
  206. <DIV class="CENTER"><A ID="pdep"><tex2html_anchor_mark></A><A ID="474"><tex2html_anchor_mark></A>
  207. <TABLE>
  208. <CAPTION class="BOTTOM"><STRONG><#1495#>Figure<#1495#>:</STRONG>
  209. <#1496#><#377#> Log<#377#><SUB>10</SUB> of the residual norm versus the number of 
  210. <#379#> GMRES<#379#>(<I>m</I>) iterations for <I>c</I> = <I>d</I> = 10 with fast Poisson
  211. preconditioning. Solid curve: Algorithm <#380#> EHA<#380#>; dotted 
  212. curve: <#381#> FDP<#381#> method; dashed curve: <#382#> FSP<#382#> method.<#1496#></CAPTION>
  213. <TR><TD><tex2html_image_mark>#figure375#</TD></TR>
  214. </TABLE>
  215. </DIV>
  216.  
  217.  
  218. <P>
  219. In our second set of experiments, we took <I>c</I> = <I>d</I> = 100 and carried out  
  220. trials analogous to those in the first set above. No preconditioning  
  221. was used in these experiments, both because we wanted to compare 
  222. the methods without preconditioning and because the fast  
  223. Poisson preconditioning used in the first set of experiments is 
  224. not cost effective for these large values of <I>c</I> and <I>d</I>. We first  
  225. allowed each method to run for 600 <#385#><#511#>GMRES(<I>m</I>)<#511#><#385#> iterations, 
  226. starting with zero as the initial approximate solution, after which  
  227. the limit of residual norm reduction had been reached. 
  228.  
  229. <P>
  230.